שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה שניה פרק מספר 8! היום ה-5 בינואר, 2025, - שנה אזרחית חדשה, פרק חדש! עומד להיות לנו פרק מאד שאפתני, כפי שתראו, אז אני חושב שזו תהיה אחלה דרך לפתוח את השנה כאן בפודקאסט.

לכבוד האירוע, אני רוצה שוב לעודד אתכם, כפי שעשיתי בפרק שעבר, לבקר ולהירשם באתר האינטרנט של הפודקאסט, כדי שתקבלו מייל כשיוצא פרק, וגם תוכלו לראות את כל התמונות והדיאגרמות שמוזכרות בעונה. בנוסף, יש גם מייל לפודקאסט (elishas.angles@gmail.com) - אם מישהו רוצה לשלוח, אני תמיד שמח לקבל מכם משוב, ואני מנסה לענות לכל מי שכותב. הלינקים השונים לכל הדברים הללו נמצאים בתיאור הפרק, אז - מוזמנים!

אני רוצה להתחיל את הפרק בסקירה ממעוף הציפור של מה שראינו עד כה, כדי למקם איפה אנחנו. לאורך העונה, דיברנו הרבה על מבחן טיורינג כדוגמה הקלאסית למבחן שמזהה תבונה. מבחן טיורינג אמנם קיבל מקום של כבוד בפנתאון המבחנים לזיהוי אינטלגנציה מלאכותית, אבל מאז 1950 ועד ימינו אנשים הציעו חלופות. חלקן היוו שידרוגים או שינויים על בסיס מבחן טיורינג, וחלקן פנו לכיוונים אחרים. אם ניקח כמה ניסוחים מהשנים האחרונות, אז יש את גארי מרקוס, פסיכולוג וחוקר קוגניציה, שהציע לאתגר מחשבים בצפיה בוידאו ולאחר מכן שיענו על שאלות ביחס למה שהוצג בוידאו. יש את מוסטאפה סולימאן, יזם בתחום ה-AI ומוביל תחום ה-AI במיקרוסופט, שהציע לתת ל-AI סכום של 100K דולר, ולתת לו משימה להרוויח מיליון דולר. אם המחשב יצליח במשימה, אז הוא ייחשב בינה מלאכותית. ויש גם את יובל נוח הררי. בכמה ראיונות שנתן, הררי הגדיר AI באופן רחב הרבה יותר - כמערכת שיודעת להתקדם אל עבר יעד נתון ולהתמודד עם האקראיות של המציאות מסביב בדרך לשם. דרך אגב, אני מתכנן להקדיש פרק עתידי לדברים של יובל נוח הררי בעניין - הוא מייצג גישה מסויימת לשיח על AI שנראה לי חשוב להתייחס אליה - אבל כרגע אנחנו נסתפק בדברים שהוא אמר באופן כללי.

כפי שאתם מבינים, יש הרבה הצעות שם בחוץ לאיך נזהה AI אמיתי, בינה מלאכותית אמיתית. אבל למרות כל הוריאציות השונות, יש משהו אחד שמשותף לכל התיאורים החלופיים ששיתפתי עד כה: כולם מציבים מבחן שמתמקד בביצועים של המכונה, ביכולות מוחצנות שניתנות למדידה. טיורינג התמקד בשיח אנושי זורם, ואחרים מתמקדים ביכולת להרוויח כסף או לנתח ולהסביר התרחשויות בוידאו. לצד הפוקוס הזה על התוצרים, יש גם את החלק השני והמשלים של ההצעות השונות: חוסר עניין מוחלט במה שקורה בתוך הקופסא השחורה שאנחנו בוחנים. אם זה עובד - אם זה מייצר תוצרים ששקולים לתוצרים האנושיים - אז לא אכפת לנו איך. יש כאן הנחה סמויה, שהמבחנים שאנו נאמץ כדי לבדוק את המכונות הם כל כך מאתגרים, שהדרך היחידה להצליח בהם תהיה אם המנוע שבתוך הקופסה יהיה, אפקטיבית, יישות תבונית.

אבל, מה אם הכל זו עבודה בעיניים? תחשבו רגע על מופע קוסמים. כשאתם הולכים לצפות במופע שכזה, נניח של אמן חושים כמו ליאור סושרד, אתם צופים בבן אדם עושה דברים שנראים, מבחוץ, כמו כישוף אותנטי: קריאת מחשבות, חיזוי העתיד, וכן הלאה. אבל אתם לא יוצאים מהאולם בסוף הערב באמונה שהוא אכן מכשף, אלא בעיקר סקרנים לדעת מה הטריקים שהוא הפעיל בלי ששמתם לב, כדי לגרום למראית עין של כישוף. אתם גם יודעים, אם למדתם פעם איזה קסם או שניים, שאם הוא היה מגלה לכם את הטריק, כל המסתורין היה נעלם מיד, והיה מוחלף בהערכה עמוקה ליכולות אחרות של הקוסם: הביצוע המדוייק, ניווט תשומת הלב של הקהל כדי שהאשליה תהיה מושלמת, וכן הלאה. אז אולי זה מה שקורה גם עם מערכות ה-AI - אולי ההתמקדות שלנו בביצועים מבחוץ פשוט מאפשרת לנו להתמכר לאשליה של חשיבה? אולי בעצם מבט מאחורי הפרגוד יחשוף שהקוסם מארץ עוץ אינו מכשף אלא רק שרלטן?

אז, זה מה שאנחנו נעשה כאן היום - אני אציג את הטיעון הסקפטי החזק ביותר שאני מכיר ביחס לתבוניות של מערכות ה-AI שסובבות אותנו. האמת היא, אני עומד ללכת רחוק הרבה מעבר לזה: אני אטען שמחשבים, באופן מהותי וסופני, לא חשבו בעבר, אינם יכולים לחשוב בהווה, וגם בעתיד לא יוכלו לחשוב, אפילו לא טיפה. ואולי, אולי יום יבוא והאדם יצליח לבנות מערכת מלאכותית שמסוגלת לחשוב - אבל מערכת כזו, אם וכאשר תבוא לעולם, לא תהיה על טהרת המחשבים.

אני יודע ששמתי כאן יעד שאפתני מאד, כזה שנועד לקעקע את כל הפרוייקט של AI מראשיתו ועד סופו, ואנחנו נראה אם זה יצליח! וכמובן, אנחנו כאן ב-"אלישע והזוויות" אוהבים להציג דברים מזוויות שונות. אז, גם הפרק הזה לא יהיה סוף פסוק, ואנחנו נראה את הקונטרה לדברים שאציג כאן היום בפרקים הבאים. אז אם אתם אישית מאד מאמינים ב-AI כעתיד האנושות, אל תתייאשו ותעברו לפודקאסט אחר שיעשה לכם נעים בבטן. בסוף, הדרך הכי טובה להגיע לאמת היא לתת לרעיונות הפוכים להתנגש ולהתחכך, ולתת לניצוצות שיוצאים מההתנגשות להאיר לנו את הלילה בדרך אל היעד.

והערה אחרונה, לפני שניגש לבשר של הפרק: השלד של הפרק הזה מגיע מתוך כמה מאמרים שקראתי, שכתב אדם בשם מארק הלפרן. הלפרן הוא יליד 1931, אבל ב-2020 הוא עדיין פרסם מאמרים בנושאי טכנולוגיה. הוא עבד לאורך חייו ב-IBM, ובמעבדות המחקר של פאלו אלטו, ובערוב ימיו עבר לכתיבה טכנית, ובין השאר פרסם כמה ספרים. המאמרים שלו על בינה מלאכותית (הנה אחד, ועוד אחד), המגיעים ממקום סקפטי, היו מרשימים בבהירותן. חשוב לומר שהמאמר האחרון שלו שמצאתי, מ-2020, פורסם לפני ש-GPT יצא, אבל המהות של הביקורת שלו עומדת במבחן הזמן. זה באמת היה פשוט תענוג למצוא משהו כזה, שנכתב על ידי אדם יחסית אלמוני למיטב ידיעתי, ולגלות יהלום נסתר שמתחבא לו אי שם ברשת.

אז בואו נתחיל. לאורך הסדרה הזכרנו כל מני תכונות שנראה שהן חלק מהותי ממה שזה אומר לחשוב: אינדוקציה, דדוקציה, למידה ואולי עוד כמה שאני לא זוכר כרגע. לצורך הפרק הזה, אני רוצה להוסיף עוד אבחנה לגביי חשיבה: חשיבה היא המנוע שמאפשר לבני אדם לפתור בעיות באופן יצירתי. בואו ניקח לדוגמה את מה שקורה כשאתם מנסים למצוא את המפתחות של הרכב של בן או בת הזוג, רגע לפני שאתם יוצאים לסרט. אפשרות אחת היא לעבור כל ס"מ רבוע בבית ולבדוק אם המפתחות שם. אפשרות שניה היא לנסות לחשוב איפה הם הסתובבו באותו יום בבית ואיפה הגיוני שהם השאירו את המפתחות, ולמקד את החיפוש בהתאם. בשתי הגישות, מבחן התוצאה יהיה שהמפתחות ימצאו, אבל בניתוח התהליך אנחנו נראה שהגישה הראשונה לא מצריכה חשיבה, בעוד השניה כן. הגישה השניה דרשה ניווט מנטלי וסינון מושכל של כל האפשרויות התיאוריטיות לגביי מיקום המפתחות, כדי לצמצם את מרחב החיפוש למשהו הרבה יותר מפוקס.

עם הרקע הזה, בואו נעבור להסתכל על המחשב, ולשאול את השאלה שטיורינג רצה להימנע ממנה: האם בתוך המחשב מתבצעת חשיבה?

ובכן, למזלנו הרב אנחנו יודעים טוב מאד איך מחשבים עובדים. בני אדם כותבים תוכנה שמגדירה למחשב מה לעשות, והמחשב מבצע אותה. אני יודע שמה שאמרתי נשמע פשוט מאד, אבל שימו לב שוב לדברים: המחשב מבצע, תמיד, ללא לאות וללא סטייה, בדיוק את מה שאומרים לו. לא יותר, ולא פחות - בדיוק מה שאומרים לו. אם יקרה איזה פעם מצב שבו מחשב כלשהו יגיע לשורה בקוד שלו, והוא יבצע משהו אחר ממה שכתוב שם - היינו קובעים שמדובר בבאג, בוירוס, או כל דבר אחר שנחשב סטייה מההתנהלות התקינה של המכשיר. הדברים הללו נכונים בין אם הביצוע היה לקוי, ובין אם הביצוע היה מושלם אבל נעשו עוד דברים שלא נכללו בפקודה, נניח אם לחצתי על האות "א" ועל המסך הופיעו האותיות "אב". זה אחד הדברים היפים והמעצבנים במחשב: הוא תמיד מבצע בדיוק את מה שפקדו עליו לעשות. ומכיוון שכך, מתכנתים כמוני יודעים שאם התוכנה שלנו לא עובדת, אז בוודאות של 100% הטעות היא אצלנו, בקוד שנתנו לו.

כלומר, מחשבים הן מכונות דטרמיניסטיות לחלוטין, ומכאן קצרה הדרך להסקת המסקנה שמחשבים אינם חושבים. בוודאי, מתרחשים בתוך המחשב המון חישובים, זה נכון, אבל המחשב עצמו אינו זה שמנווט ומחליט אילו חישובים לבצע. כל שהמחשב יודע לעשות הוא משהו אחד: לבצע באופן עיוור את הדברים שהוכתבו לו מבחוץ, על ידי המתכנת או המתכנתת. הוא לא מוסיף כלום על פני מה שהוא קיבל מבני האדם. שום תובנה לא מגיעה מתוך המחשב, אלא רק ממוחו של המתכנת שכתב את התוכנה, או ממוחם של אלו שמפעילים אותה.

בואו נעצור לרגע ונבחן את הדברים - האם מה שאמרתי הוא נכון, שהמחשב עושה רק מה שאומרים לו? על פניו, זו עובדה שלא ניתן לחלוק עליה. ועדיין, יש שינסו לשכנע אתכם - ואולי גם את עצמם - שהמחשב מסוגל לחמוק מהדטרמיניזם שכפיתי עליו כאן, ובכך להזריק לו קורטוב של חשיבה. בואו נבחן שלוש כיוונים להצעות שכאלו כאן, כי מתוך זה שקצת נאתגר את מה שאמרתי, הדברים יתבהרו.

כיוון אחד שאנשים מציעים בפורומים שונים הוא להצביע על מצבים, שעולים הרבה לאחרונה, שבהם המחשב משנה את הקוד שלו עצמו. נניח, לתת ל-GPT שיבחן את הקוד שלו, ויבצע מקצה שיפורים. האם גם אז נאמר שהקוד החדש מבצע את מה שאמרו לו בני האדם? האמת, זו שאלה יפה ומעניינת, שדורשת הרחבה מיוחדת, ולכן אני מתכנן להקדיש לה ולאספקטים שונים שלה פרק שלם, אולי אפילו הפרק הבא, אז בינתיים נשים אותה בצד ונתעלם ממנה באלגנטיות.

הכיוון השני נוגע למשהו שורשי ונפוץ מאד בתוכנות מחשב ובמערכות AI במיוחד, והוא השימוש באקראיות כחלק מהתוכנה. לאלו שלא מכירים, בהרבה תוכנות ישנם קטעים שבהם התנהגות המחשב נקבעת על פי מספר אקראי שמהחשב מגריל. נניח שיש ארבע אפשרויות, המחשב יגריל מספר בין 1 ל-4 ולפי מה שיצא הוא יפעל. דוגמה ששמעתי בעניין פעם היה לגביי וייז, שאם המערכת רואה שיש שלושה מסלולים אפשריים בין נקודה א' ל-ב', שזמן הנסיעה בהם דומה, היא תגריל עבור כל נהג מספר אקראי ולפיו תחליט באיזו מן השלושה להדריך אותו. באופן הזה היא מפזרת את העומס בכבישים, במקום לעודד את כולם לנהוג באותה הדרך ולגרום לפקק.

אם כן, יש כאלו שיכולים לטעון - אתה אמרת שהמחשב פועל באופן דטרמיניסטי, אבל הנה דוגמה למשהו לא דטרמיניסטי. יש אקראיות בתהליך! לא הכל אפשר לחזות מראש, ולא הכל נקבע על ידי המתכנת!

הטענה הזו היא טענה יפה, אבל היא בו זמנית גם שומטת את הקרקע מתחת לטיעון שהמחשב עצמו חושב. הרי, הגרלת מספר והתנהלות לפי מה שיצא זו גם כן פעולה מֵכָנִית וחסרת חשיבה, אז העובדה שמחשבים מבצעים תהליכים כאלו אינה מעידה שהם חושבים. ובנוסף לכך, אפילו שהמתכנת לא יכול לִצְפות מראש מה יעלה בגורל הָגְרלה נתונה, בסופו של דבר הוא זה שכתב את שורת הקוד שפקדה על המכונה להתנהל כך. המכונה, כפי שאמרנו, רק עושה מה שאומרים לה, ושום דבר מעבר.

הכיוון השלישי והאחרון, אולי הכיוון הכי נפוץ ששמעתי כהצדקה לעמדה שמחשב יכול לחשוב, הוא זה: זה לא נכון שהמתכנת אמר למחשב מה לעשות! הרי אתה בעצמך אמרת, אלישע, שה-AI לומד לבד, מתוך הדאטה, איך יש להתנהג? אם התוכנה לומדת לבד, אז היא בהחלט מכניסה כאן תובנות משל עצמה, דברים שהיא למדה עצמאית ושבני אדם לא קבעו עבורה. האם זה לא מוכיח את ההיפך ממה שטענת כאן, אלישע?

גם כאן, מדובר בטיעון חביב, אבל הוא לא יותר מאשר הסחת דעת, אשליה מנטלית שאנחנו משלים בה את עצמנו. בואו